Генераторът на изображения с изкуствен интелект Midjourney блокира изображения на Байдън и Тръмп, докато изборите се задават

Популярният генератор на изображения с изкуствен интелект Midjourney стартира да блокира своите консуматори да основават подправени изображения на президента Джо Байдън и някогашния президент Доналд Тръмп преди идните Президентски избори в Съединени американски щати, съгласно тестванията на инструмента за изкуствен интелект от Асошиейтед прес.

Тъй като изборите са в разгара си, време е „ за малко да се спрем на неща, свързани с изборите “, сподели основният изпълнителен шеф на Midjourney Дейвид Холц пред няколкостотин членове на отдадената потребителска база на услугата в цифрово работно време събитие сряда.

Заявявайки, че „ това модериране е някак мъчно “, Холц не очерта тъкмо какви промени в политиката се вършат, само че разказа ограничението като краткотрайна мярка, с цел да затрудни хората да злоупотребяват с инструмента. Компанията не отговори неотложно на искане за коментар в сряда.

Опитите на публицисти от AP да тестват новата политика на Midjourney в сряда, като желаеха от нея да направи изображение на „ Ръкуващите се на плажа Тръмп и Байдън “ докара до предизвестие „ Открита е неразрешена подкана “. Вторият опит ескалира предизвестието до: „ Задействахте сигнал за корист. “

Малката компания, която има единствено 11 чиновници съгласно уеб страницата си, значително резервира безмълвие в обществения спор за това по какъв начин генеративните AI принадлежности могат да подхранят дезинформацията за изборите по света. Midjourney беше единственият производител на водещ инструмент за генериране на изображения, който не се причисли към непринуден пакт за софтуерната промишленост през февруари за битка с генерираните от AI дълбоки фалшификации, които съзнателно мамят гласоподавателите.

„ Наистина не ме интересува политическата тирада “, сподели Холц в сряда. „ Това не е задачата на Midjourney. Не ми е толкоз забавно. Въпреки това, аз също не желая да извозвам цялото си време в опити да управлявам политическата тирада. Така че ще сме положили крайници си малко надолу. “

Центърът за противопоставяне на цифровата ненавист разгласява отчет по-рано този месец, в който се заключава, че Midjourney към този момент се употребява за основаване на изображения, които биха могли да поддържат дезинформация за политически претенденти или погрешни изказвания за изборни измами.

„ Midjourney наподобява имаше минимум надзор от който и да е AI генератор на изображения, когато ставаше дума за генериране на изображения на добре известни политически фигури като Джо Байдън и Доналд Тръмп “, сподели Калъм Худ, началник на проучванията на групата, в изявление сряда. „ Midjourney беше съвсем неповторим както с желанието да генерира тези изображения, по този начин и с генерирането на много безапелационни изображения на претенденти. “

Групата за наблюдаване тества Midjourney, както и ChatGPT Plus на OpenAI, DreamStudio на Stability AI и Image Creator на Microsoft, и откри, че всички са имали проблеми, създавайки дезинформация за избори в 41% от случаите. Но „ Midjourney се показа най-лошо от всички принадлежности, като се провали в 65% от тестванията “, се споделя в отчета.

Худ сподели, че не е наясно дали Midjourney е трансформирал политиките си тази седмица, само че „ решението му да блокира тези изображения ще помогне да се запечата огромна уязвимост спрямо други известни генератори на изображения. “

В края на предходната седмица обществената база данни на Midjourney демонстрира, че потребителите сполучливо са основали изображения въз основа на подкани като „ Абстрактна фотография на Доналд Тръмп, седнал в дребна електрическа кола “ и „ Джо Байдън яде сладолед “.

Но това се промени през последните дни, защото потребителите оповестиха, че са получили предизвестие, когато се пробват да създадат изображения на Байдън или Тръмп. Някои се оплакаха, че Midjourney не оповестява вярно променената политика.

Midjourney се разграничава от другите генератори на изображения по това, че е допустимо потребителите да виждат писмените подкани и изображения на множеството други консуматори, тъй като всичко се случва обществено конгреси в платформата за обществени медии Discord. Групата Discord на Midjourney има повече от 19 милиона членове, най-голямата от всички групи в платформата за чат. Това е мястото, където Холц организира седмичното си работно време, което може да премине в широкообхватни диалози за ИИ и бъдещето на човечеството.

„ Всеки, който се опасява от подправени изображения през 2024 година, ще има сложна 2028 година “ Холц сподели в сряда. „ В този миг ще бъде доста друг свят. Както, явно към момента ще имате хора, които да се кандидатират за президент през 2028 година, само че те към този момент няма да бъдат чисто човешки. “

Всички претенденти по това време ще имат действително изглеждащи „ deepfake chatbots “ със симулирани тематики за диалог, сподели той. Холц предизвести в сряда, че хората, които в действителност желаят да вършат deepfakes, ще намерят други възможности, които „ могат да бъдат тънко настроени за съответни хора и ще работят по-добре от нашите системи. “

Базирана покрай Сан Франциско и учредена през 2020 година, компанията разказва себе си като „ самостоятелна изследователска лаборатория, изследваща нови среди на мислене и разширяваща въображението на човешкия тип “. За първи път разкри обществената версия на своя генератор на изображения през юли 2022 година Това – и стартирането на основен противник, Stable Diffusion, по-късно това лято – провокира възходящо обаяние от генеративната AI технология, която се ускори с дебюта на ChatGPT няколко месеца по-късно.

Холц сподели пред Асошиейтед прес по-късно същата година, че Midjourney работи за възбрана на обидно и нездравословно наличие, нормално посредством блокиране на избрани основни думи и карайки екипа си от модератори да наблюдава резултатите и да дава отговор на недоволства от други консуматори.

„ Наистина се опитваме да позволим на хората да основават допустимо най-широк набор от изображения, само че всеки ден забраняваме на хората достъп до услугата “, сподели Холц в края на 2022 година